Hệ thống các môn thể dục được đề cập trong các tác phẩm của các tác giả cổ đại như Hómēros, Aristoteles, và Platon. Hệ thống này bao gồm nhiều bộ môn sau này trở thành các môn thể thao riêng biệt hoàn toàn như bơi lội, đua, đấu vật, quyền Anh, và cưỡi ngựa,[1] cũng được dùng để tập luyện trong quân ngũ. Thể dục dụng cụ ngày nay có nguồn gốc từ Bohemia đầu thế kỷ 19 và nay là Đức, và thuật ngữ "thể dục nghệ thuật" được dùng để phân biệt phong cách biểu diễn tự do với phong cách trong quân sự.[2] Nhà giáo người Đức Friedrich Ludwig Jahn, cha đẻ của bộ môn,[3] đã phát minh ra nhiều loại dụng cụ, trong đó có xà đơn và xà kép. Hai trong số các câu lạc bộ thể dục nghệ đầu tiên là Turnvereins và Sokols.

FIG được thành lập năm 1881 và duy trì vị thế tổ chức điều hành thể dục dụng cụ. Ban đầu tổ chức chỉ gồm ba nước thành viên và tới năm 1921 vẫn được gọi là Liên đoàn Thể dục dụng cụ châu Âu, trước khi các quốc gia ngoài châu Âu đầu tiên gia nhập và được tái cơ cấu như ngày nay. Thể dục dụng cụ có tên trong chương trình Thế vận hội Mùa hè 1896, nhưng phụ nữ chỉ được tham dự từ Thế vận hội 1928. Giải vô địch thế giới được tổ chức từ năm 1903 cũng phải tới năm 1934 mới cho các vận động viên nữ tham dự. Kể từ đây, hai nhánh thể dục nghệ thuật ra đời: thể dục nghệ thuật nữ (WAG) và thể dục nghệ thuật nam (MAG). Không giống như các môn thể thao khác, WAG và MAG khác nhau gần như hoàn toàn về dụng cụ và kỹ thuật.